Beliau mendapat pendidikan awal di Kolej Tunku Kurshiah and Victoria Institution.

Tan Sri Rafiah yang juga pemegang sarjana muda dan sarjana undang-undang dari Queen's University of Belfast, United Kingdom mempunyai rekod perkhidmatan yang cemerlang dalam sektor awam dan swasta dan juga di peringkat antarabangsa. Beliau pernah berkhidmat sebagai Penolong Setiausaha Agung bagi Pengurusan Sumber Manusia Pertubuhan Bangsa-Bangsa Bersatu (PBB) dari 1997 hingga 2002, Penolong Gabenor Bank Negara Malaysia (1995-1997) dan juga Pengurus Besar Sumber Manusia Malayan Banking Berhad (1991-1995).